Prizori vojne, ustvarjeni z umetno inteligenco: "To je naša nova realnost"

Ko je Rusija leta 2022 napadla Ukrajino, so družbena omrežja preplavili nedovršeni ponaredki, ki so jih predstavljali kot posnetke vojne, v resnici pa je šlo bodisi za računalniško obdelane fotografije bodisi za napačno označene posnetke iz videoiger, filmov, preteklih dogodkov ali nepovezanih novic.

Tovrstnim ponaredkom pa se je zdaj, med vojno na Bližnjem vzhodu, pridružila nova oblika zavajanja, ki leta 2022 še ni bila tako dostopna: visokokakovostni videoposnetki in fotografije, ustvarjeni s pomočjo orodij umetne inteligence.

"Pred desetimi leti bi bila morda ena ali dve ponarejeni stvari in precej hitro bi ju razkrinkali," je za CNN dejal Hany Farid, profesor na Univerzi Kalifornije v Berkeleyju, ki se ukvarja z digitalno forenziko. "Zdaj jih vidiš na stotine in res so zelo realistične. Ne gre samo za to, da so realistične – tudi dosežejo ljudi, in to močno. Ljudje jim verjamejo in jih širijo naprej," je pojasnil.

"V zadnjem letu se je spremenilo, da je generativna umetna inteligenca postala veliko širše dostopna," je pritrdil Shayan Sardarizadeh, višji novinar oddelka BBC Verify in znan razkrinkovalec vojnih ponaredkov. "Zdaj je mogoče ustvariti zelo prepričljive videe in fotografije, ki naj bi prikazovali pomemben vojni incident, vendar jih nepoučeno ali golo oko težko prepozna kot ponaredek," je dejal.

Lažni videi in fotografije, ki so jih strokovnjaki, kot je Sardarizadeh, prepoznali kot izdelke umetne inteligence, so v skoraj dveh tednih od začetka vojne ZDA in Izraela z Iranom na družbenih omrežjih zbrali več deset milijonov ogledov.

Lažni videoposnetki in fotografije med drugim prikazujejo domnevni napad na Tel Aviv in tamkajšnje letališče, eksplozije iranskih vojaških objektov, ameriške vojake na iranskih tleh, napade na ameriške baze in veleposlaništva na Bližnjem vzhodu, mrtvega iranskega vrhovnega vodjo Alija Hameneja .... Publikacija, povezana z iransko vlado, je celo objavila ponarejeno satelitsko sliko, ki naj bi prikazovala škodo na ameriški vojaški bazi v Bahrajnu. In to je le majhen vzorec ponaredkov, ki trenutno krožijo.

Kljub vsakodnevnim prizadevanjem za razkrinkavanje, ki jih izvajajo strokovnjaki, kot je Sardarizadeh, se novi ponaredki pojavljajo veliko hitreje, kot jih je mogoče razkriti. Pogosto so dovolj prepričljivi, da povprečen uporabnik ne opazi, da gre za laž.

Več ponaredkov, ki so se razširili, so kot propagando širili prorusko oziroma proiransko usmerjeni računi na družbenih omrežjih. Motiv za nastanek mnogih ponaredkov pa je težko določiti. Morda gre za željo po ogledih ter vplivu in denarju, ki ga ti včasih prinesejo, morda pa preprosto zato, ker jih je zdaj zelo lahko ustvariti.

"Vsebina je bolj realistična, količina je večja, prodor globlji – to je naša nova realnost. In zelo kaotična je," je dejal Farid.

Družbeno omrežje X je sicer prejšnji teden sporočilo, da uvaja nekatere ukrepe proti lažnim vojnim vsebinam, ustvarjenim z umetno inteligenco. Vodja produktnega oddelka Nikita Bier je zapisal, da bodo uporabniki, ki jih X plačuje kot ustvarjalce vsebin in bodo širili z umetno inteligenco ustvarjene videoposnetke oboroženih konfliktov, ne da bi to razkrili, za 90 dni izključeni iz programa plačil, ob ponovitvi kršitve pa trajno.

Tudi če bi se ta politika dosledno izvajala, velika večina uporabnikov platforme X sploh ni del programa za plačila ustvarjalcem, opozarja CNN.

Družbeni omrežji TikTok in Meta, ki je lastnik Facebooka in Instagrama, na prošnje CNN za komentar o širjenju ponaredkov, povezanih z vojno, medtem nista odgovorili.

Sardarizadeh je že več mesecev opozarjal tudi, da je Grok, X-ov klepetalni robot z umetno inteligenco, v nekaterih primerih težavo celo poslabšal – uporabnikom, ki so iskali preverjanje dejstev, je namreč sporočal, da so številne fotografije in videi, ustvarjeni z umetno inteligenco, vključno z nekaterimi o vojni z Iranom, resnični.

Danes je zelo težko ločiti resnično od ponarejenega. Hiter napredek kakovosti vsebin, ustvarjenih z umetno inteligenco, pomeni, da nasveti za prepoznavanje ponaredkov, ki so veljali še pred nekaj meseci, danes niso več uporabni, pravi Farid. Včasih je bilo na primer koristno preveriti, ali ima oseba na fotografiji preveč prstov ali nenavadno postavljene okončine – ljudje na sodobnih fotografijah, ustvarjenih z umetno inteligenco, so večinoma že brez takšnih komičnih napak.

Farid meni, da je najboljši način za ohranjanje točnih informacij ta, da se zavestno odločimo novice spremljati prek verodostojnih novinarskih medijev namesto prek objav naključnih računov na družbenih omrežjih. "V trenutkih globalnih konfliktov to ni kraj, kjer bi dobivali informacije," je opozoril.

Za tiste, ki se pogostemu brskanju po družbenih omrežjih ne morejo izogniti, je pametno, da si vzamejo trenutek in vsaj nekaj sekund namenijo spletnemu preverjanju, preden verjamejo ali delijo senzacionalen vojni video ali fotografijo.

Ali se zdi na posnetku kaj nenavadnega – na primer zvok, ki ni usklajen s sliko, ali vizualne podrobnosti, ki ne ustrezajo resničnemu svetu? Umetna inteligenca je vse boljša, vendar še vedno ni popolna. Nekateri UI-izdelki imajo še vedno tudi vodne žige, ki označujejo programsko opremo, s katero so bili ustvarjeni.

Priporočljivo je preveriti tudi, kaj menijo drugi uporabniki, torej ali se v komentarjih pod objavo pojavlja skepticizem o verodostojnosti videa ali fotografije. Prav tako lahko uporabite brezplačna orodja za zaznavanje vsebin, ustvarjenih z umetno inteligenco. Niso popolna, vendar lahko včasih pomagajo.